SMetric: Rethink LLM Scheduling for Serving Agents with Balanced Session-centric Scheduling
SMetric: 面向Agent服务的均衡会话中心LLM调度
🧭 Agent 服务调度优化 · 会话中心负载均衡
Shanghai Jiao Tong University · Alibaba Group · ShanghaiTech University
利用Agent工作负载的会话内局部性，通过会话首请求负载均衡+后续请求缓存亲和路由，在不牺牲KV重用下实现高吞吐
📌 工作参考价值（4 点）
- 在电商/搜索Agent系统中，会话内多步请求KV重用率极高（>80%），可采用SMetric的调度策略：每个session的首次请求做简单轮询或最少连接调度实现负载均衡，后续请求固定路由到缓存了前缀KV的实例，兼顾吞吐与延迟。
- 若已有全局KV存储（如分布式缓存层），可将调度策略与缓存分层结合：本地实例缓存热数据，全局存储兜底，使负载均衡不再以完全牺牲重用为代价。
- 会话轮次信息可直接从请求中的session_id或轮次号提取，无需额外状态维护，调度器可保持无状态、易扩展，适合生产环境快速落地。
- 对于采用prefill-decode混部或disaggregation架构的大型Agent服务，该调度方法可提升整体吞吐10-30%，同时降低每token延迟，有效应对突发流量。